![arXiv:2007.10018v1 [cs.AI] 2020 年 7 月 20 日](/simg/3/3ea5103465cc9bd377356254235ee19fc60e3965.png)
机构名称：
¥ 1.0
摘要。最近的工作已经证明了将局部解释与主动学习相结合以理解和监督黑盒模型的前景。在这里我们表明，在特定条件下，这些算法可能会歪曲正在学习的模型的质量。原因是机器通过预测和解释查询实例的标签来说明其信念：如果机器没有意识到自己的错误，它最终可能会选择它表现良好的查询。这会使机器向用户呈现的“叙述”产生偏差。我们通过引入解释性引导学习来解决这种叙述偏见，这是一种新颖的交互式学习策略，其中：i）主管负责选择查询实例，而 ii）机器使用全局解释来说明其整体行为并引导主管选择具有挑战性、信息丰富的实例。该策略保留了解释性交互的关键优势，同时避免了叙述偏见，并且在样本复杂性方面与主动学习相比具有优势。使用基于聚类的原型进行的初步实证评估凸显了我们方法的前景。
arXiv:2007.10018v1 [cs.AI] 2020 年 7 月 20 日
主要关键词
![arXiv:2007.10018v1 [cs.AI] 2020 年 7 月 20 日PDF文件第1页](/bimg/a/a0709f7d47fbe16fe012c587aa7f79e01c331ac2.webp)
![arXiv:2007.10018v1 [cs.AI] 2020 年 7 月 20 日PDF文件第2页](/bimg/4/4076ba8f8ed3bcbd8e8e1a82737cdd8ba2c4d2fa.webp)
![arXiv:2007.10018v1 [cs.AI] 2020 年 7 月 20 日PDF文件第3页](/bimg/7/7cdac70fb7b399d6c9cbb8da856db5801aa18870.webp)
![arXiv:2007.10018v1 [cs.AI] 2020 年 7 月 20 日PDF文件第4页](/bimg/f/f3ff0fa9a3bf72045eab50e9aab026166cd4daa0.webp)
![arXiv:2007.10018v1 [cs.AI] 2020 年 7 月 20 日PDF文件第5页](/bimg/7/754c7d0a1768d7a582b757dc0ff24a0f3d429d14.webp)
相关文件推荐
![arXiv:2001.02021v1 [cs.AI] 2020 年 1 月 7 日](/simg/6/6656a65d1324b757699cd670b349c20ef6da7f31.png)
![arXiv:2003.05823v1 [cs.RO] 2020 年 3 月 12 日](/simg/c/cf9e39bb81ef86eb692012c7befa2c3c970b4e31.webp)
![arXiv:2001.07537v1 [cs.AI] 2020 年 1 月 21 日](/simg/9/9263a647ebe77a59e853ed496cc8cf75b3b255ec.png)
![arXiv:1902.09587v3 [cs.CR] 2020 年 10 月 1 日](/simg/1/17e72fa5b730734f4f251fd870824d19acbc20e2.webp)
![arXiv:1912.05135v3 [cs.CV] 2020 年 3 月 14 日](/simg/0/0707fc16789e4908e2fbb96660f5b652882edfb5.webp)
![arXiv:2106.03797v1 [cs.CV] 2021 年 5 月 20 日](/simg/d/d3991bdbf22b7ca1f479c1474c721bd822b7bde3.webp)
![arXiv:2004.02730v2 [eess.SY] 2020 年 10 月 2 日](/simg/d/daf0cca9d89fed4d586eb67003133c1bb4c4d11e.webp)
![arXiv:2011.07876v1 [cs.LG] 2020 年 11 月 16 日](/simg/6/68758036e90c90f3903356cd2f9a18d6db5b3ba4.webp)
